如此AI换脸：侵犯私益or公益？技术中立是否意味着价值中立？

【案中法理】

党的二十大报告强调，要引导全体人民做社会主义法治的忠实崇尚者、自觉遵守者、坚定捍卫者。我们对法治精神的弘扬，远不止于对于法条的字面理解；检察官对案件的办理，绝不是对法条简单堆砌、机械适用。【案中法理】带你走进真实案件背后的法理世界……

图片来自网络

“AI换脸”，相信大家都不陌生，只需要一张照片，通过深度合成技术，任何人都能成为热播影视作品中的主角，甚至表情、神态都足以以假乱真。然而，近年来，伴随着技术门槛的降低和应用场景的增多，“换脸技术”的应用早已突破原来的娱乐范围，甚至成为不法分子牟利的手段。

今年6月，杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼。8月4日，杭州互联网法院经过审理后依法对该案作出判决，支持检察机关作为公益诉讼起诉人的全部诉讼请求：判令被告虞某立即停止侵权，删除其在社交软件群组中留存的所有涉案个人信息；在国家级媒体上刊发向社会公众赔礼道歉的声明，以消除影响、进行警示并支付侵害社会公共利益的损害赔偿款6万元。8月22日，这一判决正式生效。

“换脸，不能随心就换！我们希望通过该案的办理提醒社会公众，在使用新兴技术时，不能忘记法律的规制和道德伦理的约束，这是所有技术发展应有的边界。”承办该案的杭州市萧山区检察院检委会专职委员章表示。

“真是后悔莫及啊！”对于现年36岁的虞某来说，当初对“换脸”的好奇换来的除了刑罚，还要承担相应的民事责任。

虞某所组建的用于传播淫秽视频的公开群

“想换谁的脸就换谁的脸，好玩、刺激！”2020年过年前后，虞某第一次从互联网上接触到“AI换脸”技术时，十分好奇，莫名的兴奋。随后，虞某便从网上下载了换脸软件并熟练掌握了相关视频合成的技术。在使用这项技术时，虞某发现了其中的“商机”：利用“AI换脸”软件，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播，能够吸引较多关注。从2021年6月开始，虞某以牟利为目的，在未取得被编辑人同意的情况下，利用上述“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频，在网络社交软件上进行传播。与此同时，虞某还在社交软件上创建了多个群组为他人提供换脸视频定制服务，根据客户提供的视频或照片，制作换脸视频。此外，虞某在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

“让一切遮挡消失！手机就可操作，明星网红素人都可，30秒内出结果！购买软件私信联系！”“只要是能看到脸的都能换！”“请问有提供定制换脸视频吗？想把我暗恋的女生换上。如何收费？”“没问题，费用……通过口令红包发我！”……一段时间，在虞某的社交软件群组内热闹非凡，生意红火。口令红包收了200余次，总金额共计6万余元。2022年8月，公安机关发现了虞某在网上制作、传播淫秽物品牟利的犯罪行为，依法对其立案侦查。2022年11月，虞某被移送萧山区检察院审查起诉。今年3月28日，该院依法对虞某以涉嫌制作、传播淫秽物品牟利罪提起公诉。

“引起我们注意的是，虞某在传播淫秽物品牟利的同时，还会为他人提供换脸视频‘定制’服务，并传授换脸软件的使用方法。”在参与虞某刑事案件的讨论时，兼任该院公益诉讼检察部门负责人的章蕾了解到，虞某会根据客户提供的视频或照片，制作、生成特定的换脸视频。除此之外，虞某还会在网络社交软件上直接销售“AI换脸”软件，传授客户使用软件的方法并且提供相应的素材。而客户要求“定制”换脸的对象不仅包括一些我们熟知的公众人物，也有生活中的普通人。

“仅凭几张照片，任何人都可能成为受害者。”章蕾说，近年来，滥用“AI换脸”技术实施各类侵犯个人信息的行为并不鲜见，仅凭一张换脸照片或者一段换脸视频，或编造新闻、炒作热点，或侮辱诽谤、实施勒索诈骗，“该类行为在网络传播的叠加下，危害结果会产生裂变，对被侵权人造成的伤害往往是长久的、持续的、难以弥补的。”

Q1

“AI换脸”侵犯的

是私益还是公益？

检察机关围绕该案与相关部门进行讨论

擅自使用他人人脸信息，制作换脸视频，侵犯的到底是被害人的私益，还是公共利益？“要看到隐藏在每一个被害人的个人权益的背后，是网络正常的公共秩序，是承载在不特定多数社会主体个人之上的公共利益。”讨论这一案件时，章蕾说。

从女子地铁照被“一键脱衣”到该案中普通人的形象被嫁接到淫秽视频中，“AI换脸”技术的滥用，看似是对被侵害的个人的人格权、肖像权、名誉权、隐私权的侵害，实际上更是对社会公序良俗的践踏，是对稳定的社会环境和清朗的网络空间的挑战。

买家向虞某咨询“换脸”软件的使用情况

该案中，虞某作为“AI换脸”技术的使用者，不仅在互联网公共空间非法获取众多人脸信息，利用深度合成技术非法处理后，制作淫秽视频在超过2000人的网络社交软件群组中进行传播，违反了法律法规和社会公德，侵害了公共信息安全，破坏社会公共秩序，还在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下，向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，传播侵犯公民个人信息的方法和手段，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。“因此在依法追究其刑事责任外，我们认为有必要提起民事公益诉讼对该类侵犯公民个人信息的行为予以规制。”

经过讨论，大家一致认为有必要提起公益诉讼。随后，该院又向杭州市检察院作了汇报并获得了支持。

“其实，个人信息被泄露的危害，我们或多或少都有体会。不堪其扰的推销电话、未经同意的数据收集、精准实施的网络诈骗等等，个人信息一旦被过度收集、泄露和非法利用，造成的危害难以估量。而人脸信息作为其中具有高度识别性和强关联性的敏感个人信息，更应当是法律重点保护的对象。”杭州市检察院第八检察部主任毕克来听取汇报后表示。

今年4月14日，萧山区检察院决定对虞某“AI换脸”侵犯个人信息公益诉讼案立案，当日履行公告程序，公告期满，无适格主体提起诉讼。6月9日，该院依法对虞某提起民事公益诉讼。6月12日，杭州互联网法院正式立案。

Q2

网络时代

技术中立是否意味着价值中立？

7月28日，该案在杭州互联网法院一审公开审理。

检察机关对虞某利用“AI换脸”技术侵犯公民个人信息案提起民事公益诉讼

庭审中，萧山区检察院作为公益诉讼起诉人派章蕾出庭。检察机关结合案件事实、危害后果、法律责任等对被告虞某进行法庭教育，虞某通过其诉讼代理人表示真诚悔过，并表达了履行赔偿的意向。

庭审过程中，章蕾在法庭上发表的一段话令人印象深刻：“技术本身是中立无害的，只是技术中立并不意味着价值中立，特别是开发、应用者的价值中立，更不等于‘深度合成’的参与者不应当受到来自法律的规制、道德伦理的约束。”

经过审理，法院认定，虞某对于人脸深度合成技术的滥用行为损害了社会公共利益，依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。被告虞某服从法院判决，现判决已生效。虞某已履行道歉及赔偿义务。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

“技术的运用是把双刃剑，用之为善可以造福社会，不当滥用则会造成社会风险和损害。对于换脸软件等深度合成技术应用的规制应当从其参与者入手，包括发明者、应用者、传播者等方面，以规制深度合成技术使用目的为路径，实现深度合成技术的合理使用，避免该技术对个人、社会、国家造成诸多方面的风险。同时，也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德，培育积极健康、向上向善的研发、应用环境，保护和鼓励新兴智能技术的有益探索。”承办此案的法官肖芄在该案宣判后说。

据了解，今年1月，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式实施，为深度合成服务划定了“底线”和“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者要落实信息安全主体责任。

8月15日，国家网信办联合多部门公布的《生成式人工智能服务管理暂行办法》正式施行，对生成式人工智能产业作出了较为详尽的规定。“但在法律规定不断完善的同时，技术的迭代也在不断加速，如何克服法律对技术规制的天然滞后性，如何应对技术发展过程中的新现象、新问题，是监管部门和司法机关共同需要面对的新难题。”审判长、杭州互联网法院常务副院长朱敏明表示。

“在办理该案的过程中，我们也深刻地体会到，技术的迭代背后，‘侵权易’‘维权难’的矛盾更为突出。”章蕾说，以往在司法实践中，关于公民个人提起的保护个人信息之诉少之又少，其中维权成本高、专业性强、举证困难是主要原因。以本案为例，如何证明人脸信息侵权事实的存在，可能需要对信息处理者、处理方式、信息获取、信息处理加工是否违法等进行举证，而上述证据普通的公众很难仅凭自身力量完成初步举证，即便是司法机关，在调查取证的过程中也耗费了大量的时间和精力。而公民个人遇到该情况往往会基于无奈，放弃以诉讼方式维权，这将会间接导致对侵权行为肆意侵害公共利益的放任，使技术违法行为始终游走在法律底线之外。

据悉，今年6月，在最高检第八检察厅的直接指导和推动下，杭州互联网法院与杭州市余杭区检察院会签《关于推进互联网检察公益诉讼案件办理的协作办法（试行）》，旨在通过探索互联网检察公益诉讼新型办案模式，携手蹚出一条网络空间司法协同治理的新路。

来源：检察日报

作者：范跃红、陈佩佩